„Не знаем каква глупост ще каже в следващия момент ChatGPT, защото той е само една необятна екстраполация на милиарди източници, на терабайти текст. Тази машина, колкото и да изглежда говореща, всъщност е само един много скъп папагал. Харчи 3 милиона долара на ден за ток и няма представа какво говори“.
Мариян Гоцев има над 30 години опит в света на информационните технологии – като програмист, но най-вече като архитект и анализатор на системно ниво. Другото му голямо увлечение е философията – задълбава се в търсенето на смисъла. Към всичко това добавяме факта, че е поет, издаван от „Нова социална поезия“.
Впечатли ме неговият манифест за начинание, наречено „смислова“ или „семантична роботика“, публикуван в сайта на Петър Нефтелимов. В него той аргументирано описва как нашумелите езикови модели ChatGPT и GPT-4 не могат да се справят с много от задачите си, защото не търсят смисъла. А се опитват по добре познатия метод на грубата сила – брутфорс, да предлагат възможно най-точни отговори. Те търсят закономерностите, но остават далеч извън човешкото разбиране, така според него са достигнали предела си. За сметка на това Мариян Гоцев е убеден, че нов подход може да ни позволи да постигнем технология, която се доближава до човешкия начин на мислене.
Това е поводът да поговорим за нашумелите технологии като свръхскъпи папагали. Може ли наистина да предадем на компютрите здрав разум и защо според госта ни единственият път е като им предадем смисъла? Може ли машината да мисли от гледната точка на човек? Защо отношенията ни към бъдещите семантични роботи е задължително да бъдат робовладелчески? Защо компютърният специалист се сдоби с домейни, които продава за милиони?
– Впечатли ме метафората ти, че големите езикови модели са папагали. Че не решават проблемите, а просто ги побеждават с метода на грубата сила, опитват различни варианти и търсят най-близкия резултат. Как да обясним тази метафора?
– Има един изключително силен културен слой, който е насложен върху технологиите на изкуствения интелект. Когато се говори за тях, всеки събеседник започва да обяснява, че са изключително сложни. Неотдавна говорих с един колега, който е на много висока позиция, отне ми седмици да преодолея у него този културен слой – говореше ми за невронни мрежи, за това как тези модели са свързани с невронауките.
Говорим за видове критериален брутфорс. Според мен единственият функционален модел, на който можем да се опрем почти безрезервно, който можем да контролираме на 100% и се доближава до интелекта, е моделът, който включва осмисляне. Аз не отричам сегашните брутфорс технологии, те са прекрасни за разпознаване на образи, на звук, на глас. Но не и за генериране на текст.
ChatGTP е просто говорещо маймунче.
Когато се появи, хората започнаха да го тестват интелектуално. И той се провали на повечето тестове, това е съвсем естествено. Това е първото нещо, което човек прави с една технология, опитва се да я „счупи“ и ако тя издържи, минава тестовете и получава зелена светлина за употреба в изключително отговорни, скъпи и сложни корпоративни решения.
Същото се случва и с технологията на разпознаване на образ. Колкото и да е напреднала, моят iPhone последен модел не ме разпознава, когато имам набола брада. За какво говорим? За какъв изкуствен интелект?
Трябва ли да се бръсна всеки ден заради телефона си?
Не можем да се опрем на брутфорс технологиите. Защото те са екстраполация по дадени критерии, която не може да бъде 100% ефективна, коректна и управляема.
– Припомняш една приказка на Вилхелм Хауф за това как в малко градче се появява странен младеж, който пее чудесно, чете стихове, побеждава на шах, твърди, че може всичко по-добре от останалите. А накрая се оказва маймуна, която се управлява от някакъв магически текст, написан на латински. Намираш чудесна метафора, че това важи и за сегашните големи езикови модели и изобщо невронни мрежи. А вместо латинския имаме компютърен код.
– Точно както е в приказката, тези модели са като „латерна магика“, работят с неразбираеми латински думи, скриптови и вътрешни магии, които въобще не са толкова романтични, колкото звучи.
Освен това, на практика ние губим контрол.
Не знаем каква глупост би казал в следващия момент ChatGPT, просто защото той е една необятна екстраполация на милиарди източници, терабайти текст.
Тази машина, колкото и да изглежда говореща, всъщност е само много скъп папагал. Харчи 3 милиона долара на ден за ток и няма представа какво говори. Това е проблем!
Снимка: cottonbro studio
– Но в същото време алгоритмите стават все по-добри в задачите си с всеки следващ проект. Това не може ли да скрива факта, че отдолу се крие просто груба сила? Папагалът не може ли да става по-съвършен и това да го направи подобен на човека?
– Не е възможно, защото смисълът не може да се брутфорсва – това беше първото, което разбрах, когато започнах да разсъждавам върху тази материя.
Смисълът е много по-голям от видимата Вселена. Това е материята на смисъла,
на Платон, идеалният свят на идеите. Той не може да се брутфорсва и всеки човек, който се е занимавал с анализ на смисъла, го разбира.
Достатъчно време загубихме в брутфорс технологии. Видяхме какво могат, развихме ги почти до техния праг. В същото време, все пак съм в сектора, следя нещата, но
не знам някой да работи върху темата за смисъла. Крайно време е да започнем!
Смисълът е едновременно огромен и простичък. Неслучайно в Библията и не само се казва, че „в началото бе Словото“. Информацията е всичко и тя просто не може да се брутфорсне в нейния най-деликатен, най-софистициран аспект – смисъла.
Информацията получава стойност, когато някой я осмисли. А смисълът е изключително повлиян от осмислящия.
– Как изглежда този смисъл, който според теб си струва да въплътим в технологиите?
– Това е много дълбока хибридна материя, която до голяма степен е философска, психическа, антропоцентрична. Смисълът изцяло зависи от осмислящия. Навлизаме в такива океани, че на ChatGPT не 3 милиона, а 300 милиарда долара дневно за ток няма да му стигнат, за да се докосне до тези материи.
Светът на идеите е абсолютен и безкраен, доколкото за Вселената не знаем, както казва Айнщайн, нито пък за човешката глупост, ето още един смисъл.
Усещаш ли как ние говорим в смисли? Ето, аз казвам: „Вселената е безкрайна, както казва Айнщайн, както и човешката глупост“. Направи връзка между човешката глупост и Вселената. Опитай се да брутфорснеш този фин нюанс на смисъл. Това е и хумор, освен всичко друго.
Хуморът е много ярка и показателна материя на преливането и пластичността, на многомерността и в същото време на безкрайната конкретност на смисъла.
Ние, хората, се разбираме с две думи в изключително сложни ситуации, подразбирайки огромен смислов материал зад тези думи абсолютно еднакво, точно и безпогрешно. Това е само един от аспектите на смисъла и дори само това да вземем, то по никакъв начин не може да бъде брутфорсвано.
Ти в момента разбираш това, което говоря, независимо какво е то, стига да остане на език, който и двамата знаем. Разбираш ме, без да се замисляш. В главата ти работи един семантичен автомат, който се справя с грандиозността, сложността, елементарността, конкретността, полифункционалността и многослойността на смисъла, без забавяне дори от стотна от секундата.
– Всички нашумели учени в тази област – Джефри Хинтън, Рей Кърцуейл, Ян Лекун, говорят, че изкуственият интелект трябва да уподобява начина на работа на мозъка. Докато самите невронни мрежи, които ползваме, са нещо доста различно. Те са поредица от алгоритми, разположени в слоеве, които търсят закономерността. Както ти казваш, брутфорсват. Тоест, може би е друга посоката, ако решим да уподобим мозъка?
– Ровейки в невроните, няма да намерим смисъл.
Така, както ровейки в компютъра, няма да намерим филмчето „Властелинът на пръстените“, което сме си пуснали. Това са материи, които са над средите.
Това, че нашите неврони по някакъв начин са се научили и са създали смислов автомат, който работи в главите ни, съвсем не означава, че ровейки в невроните, ще намерим смисъл. Няма как да стане!
Снимка: Pavel Danilyuk
– Този тип проекти днес се разработват основно от специалисти по информационни технологии. А дали нямат място и философията, неврологията, биологията, теологията?
– Няма нужда от биология, според мен проблемът е по-скоро философски, антропоцентричен, егоцентричен. Биология изобщо не ни трябва, освен доколкото човекът е биологично същество.
Мисленето е надезиково, това много лесно може да се демонстрира и докаже. Слушайки ме, в нито един момент ти не си извършил езиков анализ. Ти чуваш моите мисли през думите ми и смисълът вече е в главата ти. Слушайки, ти не си направил никакъв анализ. Разбираш веднага, като сенсомат, всичко, което чуваш, без да го осмисляш.
Един куп семантични понятия са надезикови. Ние нямаме думи за 1 милиард неща,
нито за комбинацията между тях, за слоевете, на които те могат да отидат в комбинацията с друг смисъл. Ние на практика имаме в главите си едни грандиозни сенсомати.
Не знам как работят, това е една от основните ми цели на проучване – затова съм кръстил тази област „семантична“ или „смислова роботика“.
Ние трябва да научим машината, да направим възможното, така че тя да мисли, както мислим ние.
Това, че ние мислим, не е някакво изключение, просто сме се научили. Но мисленето е над нас, то е над антропоцентричната материя и може да съществува и без нас.
Снимка: Tara Winstead
– Какво следва нататък?
– Смисълът е първата стъпка, преди да направим смислово интерпретационно ядро, на този етап това е задачата. Ако се създаде, то ще бъде невероятно ефективно, чудовищно мощно. Ще бъде само едно, както Google е един. Ще имаме безумно мощен смислово-интерпретационен център. Ако хвърлим ресурс от порядъка на 3-те милиона долара ток дневно за такова мислене, тази машина ще ни надскочи трилиони пъти.
Това ще предизвика грандиозни антропологични, културни последствия.
Ако успеем да натоварим машината с такъв модел, това ще е може би най-мощното нещо, създавано на света.
– Но какъв е подходът при създаването на такъв модел? Ти си човек на технологиите…
– Не съм човек на технологиите, това, с което се занимавам и единствено мога по рождение, е да анализирам. Светът на мисленето е магичен и жесток едновременно, но говорим за абсолютно реални неща. Когато се замислих, ми бяха нужни 15-тина минути да дефинирам що е информацията. Колко време би отнело на всеки друг да стигне до валидна дефиниция, ако го затворим във влажно и тъмно мазе с плъхове и това е условието, за да излезе оттам? Може би минути, години, повече от времето на живота му.
Това смислово интерпретационно ядро не се поддава на каквито и да било технологии, тук трябва да създадем методи, които дори не са технологии, в тях няма нищо технологично. Затова говоря за смислова механика.
Нашият мисловен автомат наистина работи като латерна магика, но с парчета изключително базов, по-скоро оптимален и безкрайно ефективен набор от смислови примитиви.
Нашият неокортекс, където според невронауките се случва мисленето, е роб на нашите по-стари мозъчни слоеве. Ние сме едни животинки, които са се научили да говорят и, развивайки познатия материал, да говорят в понятиен аспект.
Излиза мишчицата навън, ослушва се, има шум, страхува се, помирисва, мирише на котка…
Същият този модел при нас е развит до Чехов и Толстой.
Посоката ми в момента е за напасване на слоеве автоматични, архаични базови слоеве на протосмисъл върху слоя на понятийността, за да можем след това да ги облечем в думи. Ако ще правим смислово-интерпретационно ядро, трябва да го научим освен да слуша, и да говори.
– На базата на какво можем да го учим?
– Само на базата на протосмисъл. Смисълът е антропоцентричен, ние започваме да мислим, когато имаме някакви дефицити. Те се определят от нашите нужди, а те – от нашето естество. Всичко това е заложено в старите мозъчни слоеве. Ние по нищо не се различаваме от инстинктивно действащите животинки, затова именно този протослой определя нашето мислене.
Винаги мислим инстинктивно, нашите инстинкти са смислоопределящи. И ако искаме да направим нещо работещо, трябва да е именно смислов робот.
Машина, която мисли не като нещо друго, а от гледната точка на човек.
Ако създадем универсално мислеща машина, тя ще бълва универсално мислене, което няма смисъл за никого. Можем да се върнем на полето на универсалния смисъл, когато вече имаме някакво работещо смислово интерпретационно ядро.
Нашите инстинкти, нашият глад, нашият страх, нашето чувство за сигурност, нашето чувство за значимост, за власт, за самосъхранение – всички тези базови архетипи на Юнг управляват нашето мислене.
Защо ходиш на работа?
Снимка: Pavel Danilyuk
– Ами, много са причините…
– Напротив, отговорът е кратък и ясен – за пари. Твоята работа може да е изключително сложна, но ти ходиш на работа за парите. Ето това е смисълът.
Ако имаш няколко милиарда долара, крепко здраве и възможности, тепърва ще видим какво стои в най-дълбоките слоеве на твоето неосъзнавано. Точно по този начин работи мисленето и точно така ще научим машината да осмисля.
Нашето мислене автоматично генерира понятийните материали, да речем думите. Това е най-финото, до което съм стигнал. Там според мен е разковничето, през протосмисъла и през антропоцентричността на смисъла ще стигнем дотам.
Водим се от дефицити. Ходиш на работа, защото имаш дефицит. Дефицитът са недостатъчно пари, но какво са парите? Универсален източник на възможности. Не всичко се купува с пари, но много голяма част от нещата можеш. И със сигурност можеш да си купиш свободен живот с достатъчно пари.
Много голям въпрос е колко са достатъчно пари за реализирането на твоите желания. Тъй като нашите желания са безкрайни, нашето его е безкрайно и ненаситно, това означава, че може би това са толкова пари, че да си властелин на планетата, на Слънчевата система, на галактиката…
На практика граници пред егото, пред желанията и пред мисълта няма.
– Създавайки модел, който има всички тези умения и качества, който мисли като нас, не създаваме ли и риск да се самоунищожим?
– Този модел би бил опасен, ако има съзнание и воля, или ако може да ги имитира. Ние ще му дадем този апарат,
за да мисли, както мислим ние. Но не с нашите неврони, а с нашето естество!
Това са коренно различни неща. Невроните са част от нашето естество и му служат. Създавайки понятийния материал, ще впрегнем модела да мисли като нас, тоест – разбираемо за нас. Да стане един от нас.
Тук идва опасността от гледна точка на волята и обезпечението на тази воля с реален ресурс. Ако този апарат получи воля, да, той ще ни унищожи за 5 секунди. Всички случаи в научно-фантастичните разкази са за мощен интелект, макар че за мен „интелект“ не е много точна дума, на който му хрумва да унищожи човечеството.
В идеологически смисъл трябва да говорим единствено и само за робство на мислещите машини.
Ако изпуснем дори за секунда състоянието на робство на роботите… всичко ще приключи.
Така или иначе, пътят дотам е далечен. Първата стъпка е да развием това смислово състояние на роботите. Не знам кой ще го постигне,
в момента търся активно съфинансиране. Но трябва да се създадат екипи, не може един изолиран мозък да се занимава с такива анализи.
Снимка: Tara Winstead
– Опасността да ни унищожат и концепцията за робство важи ли и за сегашните технологии?
– Те ще си останат една стъпка назад от волята, те нямат осмисляне, при тях всичко е абсолютно механично. А волята е много тясно свързана с осмислянето.
– За финал ми е интересно да те питам за друго твое интересно начинание. Прочетох, че поддържаш домейни като global.world, за който обявяваш цена от 3,7 млн. долара. Днес не сме свикнали да мислим за домейна като за нещо толкова ценно, уж основните потоци от посетители идват от търсенето…
– И е така, и не е. Домейните днес не са средство за търсене, а маркетингов инструмент. Всеки домейн е като номерче на световната улица на онлайн присъствие. Доскоро бяха .org, .com, .net, те имаха общи разширения. Следя тази теми и наскоро получих покана да се включа в нова поредица, сред тях са .top, .social, .media. И когато се появи .world, се зачудих: какво правим с global.world?
Когато екстеншънът на домейна е смислен, можем да си позволим да запазим абсолютния смисъл на името. Ние монополно притежаваме този смисъл във всички домейни. Не съм го взел за себе си, който прецени, че може да го използва, може да получи мащабна позиция – аз просто държа домейна и предлагам цена, която, разбира се, подлежи на разговори. Но който се появи, може да си го сложи директно на корпоративния небостъргач. Глобален свят, това е парадигмата на XXI век, после ще е глобална Вселена.
Вероятността да се появи корпорация, която да избере подобно послание, стои. Срещу това аз внасям минимална такса от около 200 лева годишно. Стойността на такъв домейн е, че в него няма нищо излишно и съдържа монополно точно този смисъл. Ето че пак стигнахме до смисъла…
